Bộ quốc phòng Mỹ dự tính thiết kế M4 nhằm thay thế M3 Lee và tăng hạng trung Grant.Loại M3 chỉ thay thế phần khung tăng, còn vũ khí thì giữ nguyên như tăng M2(được thiết kế năm 1939).Ngoài ra M3 được thiết kế để làm biện pháp tạm thời thay thế cho M2.Trong khi đó, lực lượng thiết giáp Đức đã sở hữu những kiểu tăng rất mạnh như Panzer-II và Panzer III.Pháo chính 37 mn của M3 không thể nào xuyên thủng được giáp mặt trước của Panzer-III.Một giải pháp mới về một loại tăng có pháo chính 75 mm, hệ thống treo động lực xoáy trôn ốc, tháp pháo tròn và có lớp giáp bọc dày 63 mm được đặt ra.Và tên bản thiết kế là M4, về sau nó được thêm chữ Sherman vào sau.

Những chi tiết kĩ thuật của M4 được chính thức xem xét vào ngày 31/8/1940.Tuy nhiên việc thiết kế một mẫu thử nghiệm M4 bị đình trệ do M3 đã được thiết kế xong và được nhân rộng sản xuất.Vào ngày 18/4/1941, bộ quốc phòng Mỹ đã chọn bản thiết kế T-6 có cấu tạo đơn giản, lắp ráp trên khung tăng-bệ máy M3, một loại tháp pháo ụ tròn mới với pháo chính của tăng Lee.Sau nhiều đợt thử nghiệm và xem xét, mẫu T-6 được chọn làm bản thiết kế cho M4 Sherman.

M4 Sherman tập hợp những tính năng đặc biệt nhất từ các loại tăng vào những năm 1930, trong số đó có hệ thống treo vòng xoắn dây cót dọc, xích tăng có vỏ bọc cao su, động cơ hướng tâm bố trí đằng sau và đĩa răng kéo đằng trước.Theo như dự định ban đầu thì M4 phải là một loại tăng có thời gian sản xuất nhanh, có độ linh-hoả lực cao, có tính năng hỗ trợ bộ binh và quan trọng nhất là M4 phải hạ được các loại tăng hạng trung của Đức Quốc xã cũng như các nước thuộc khối Trục.Cho dù về sau Đức Quốc xã có nhiều loại tăng hạng trung và nặng mạnh hơn M4 rất nhiều nhưng nó vẫn là loại tăng chủ lực của quân đội Mỹ đến tận cuối cuộc chiến.

Mẫu T-6 được hoàn thành vào ngày 2/9/1941.Khác với M4, thân tăng của T-6 hơi cong và có lối đi vào ở hai bên, nhưng về sau hai chi tiết này đã bị loại bỏ trong quá trình sản xuất.T-6 chính thức được đưa vào chương trình sản xuất Sherman vào tháng 10.